近年来，以用户为中心的应用程序有所增长，这些应用程序需要在低数据制度中跨任务进行有效的知识转移。一个示例是个性化，通过学习少量属于特定用户的标记数据，可以调整一个预处理的系统。这种设置需要在低计算复杂性下高精度，因此准确性的帕累托前沿与适应性成本起着至关重要的作用。在本文中，我们将在几个摄影图像分类设置中推动此帕累托前沿，并具有两个关键的贡献：（i）一个称为上下文挤压和兴奋（案例）的新型自适应块，该块在新任务上调整了预处理的神经网络，以显着通过用户数据（上下文）的单个正向通过，以及（ii）基于称为大写的坐标培训协议（II）的混合训练协议，以提高性能，该协议利用了元训练的情况块和微调例程，以进行有效的适应。大写在VTAB+MD的26个数据集和充满挑战的现实世界个性化基准（Orbit）上，相对于元学习者的新最先进的准确性（轨道），从而通过领先的微调方法缩小了差距自适应成本较低的数量级。
translated by 谷歌翻译
现代的深度学习系统越来越多地部署在个性化和联合学习等情况下，需要支持i）学习少量数据，ii）沟通有效的分布式培训协议。在这项工作中，我们开发了胶片转移（FIT），该胶片在图像分类设置中满足了这些要求。 FIT使用自动配置的幼稚贝叶斯分类器在固定的主链上，该主链在大型图像数据集上仔细考虑。参数有效膜层用于调节主链，从而为下游任务塑造表示形式。该网络通过情节微调协议进行培训。该方法是参数效率的，这对于能够实现几次学习，廉价的个性化模型更新以及沟通有效的联合学习的关键。我们尝试适合各种下游数据集，并表明它可以比最先进的大型转移（位）算法在低射击和挑战性的VTAB-1K基准上获得更好的分类准确性，该算法的精度少于1％可更新参数。最后，我们证明了在分布式低弹药应用中拟合的参数效率，包括模型个性化和联合学习，其中模型更新大小是重要的性能指标。
translated by 谷歌翻译